Ce qu’il faut retenir de l’AI Act
- Nouvelles obligations pour les modèles de fondation (avec des exceptions pour les modèles open source), instituant des contraintes de transparence, de sécurité et de reporting renforcées pour les modèles à risque systémique (évalué selon leur puissance de calcul)
- Tous les fournisseurs de modèles de fondation devront publier un résumé détaillé de leurs données d’entraînement et respecter le droit d’auteur
- Les contenus produits par des IA génératives devront être identifiés comme tels
- Les usages de l’IA « à haut risque » devront respecter des règles strictes de sécurité, de transparence et de qualité des bases de données
- Les usages au risque le plus élevé sont interdits (social scoring, reconnaissance faciale en temps réel et à distance sauf exceptions pour les forces de l’ordre, catégorisation selon la race ou l’orientation sexuelle…)
- Sanctions pouvant atteindre jusqu’à 7 % du chiffre d’affaires mondial ou 35 millions d’euros d’amende en cas de violation, infligées par un nouveau bureau européen de l’IA, dépendant de la Commission
Vendredi 8 décembre tard dans la nuit, les membres du trilogue se sont entendus sur le compromis de l’AI Act, le règlement européen relatif à l’intelligence artificielle, après près de 40 heures de négociation. Des points concernant le droit d’auteur ont été validés.
C’est un sujet qui n’était pas au menu de l’AI Act et qui s’est progressivement imposé dans les débats. La question du droit d’auteur s’est invitée dans les négociations au mois de juin 2023, alors que le texte suivait son cours législatif depuis avril 2021, au moment où le Parlement a décidé d’introduire des dispositions visant les modèles de fondation des systèmes d’IA générative (ChatGPT a été lancé fin novembre 2022). A l’origine, l’AI Act se résumait, pour simplifier, à une approche par les risques des applications de l’intelligence artificielle, interdisant certains usages et instituant les exigences les plus lourdes (évaluation de la conformité et marquage CE) pour les IA dites « à haut risque » (secteurs sensibles comme la santé, l’éducation, le recrutement…).
« L’AI Act n’avait pas vocation à aborder la problématique du droit d’auteur.
Rédactrice en chef de mind Media, responsable de la rubrique Marques et agences